|
13.05.2026 12:00 Uhr |
Die Sicherheitsmodelle, die für klassische Software und die erste Generation generativer KI entwickelt wurden, reichen für agentische Systeme nicht mehr aus. Mit der Top 10 for LLM Applications 2025 adressiert OWASP (Open Worldwide Application Security Project) Risiken auf Modellebene wie Prompt Injection, Sensitive Information Disclosure, Supply Chain und Excessive Agency.
Diese Risiken verschwinden bei agentischen Systemen nicht – sie verstärken sich und werden durch neue Bedrohungen ergänzt. Forscher untersuchten OpenClaw in einer Laborumgebung mit persistentem Gedächtnis, E-Mail-Konten, Discord-Zugang und Shellzugriff. In elf Fällen legten die Agenten vertrauliche Daten offen, kompromittierten sich gegenseitig und nahmen eigenständig Infrastrukturänderungen vor.
Dies geschah nicht, weil die Agenten böswillig programmiert waren, sondern weil ihnen grundlegende Sicherheitsmechanismen fehlten. Im Unterschied zu Chatbots, die beraten, oder Copiloten, die Vorschläge machen, handeln agentenbasierte KI-Systeme: Sie buchen Flüge, führen Code aus, verwalten Datenbanken und treffen eigenständige, folgenreiche Entscheidungen.